-
1 machine round off error
Англо-русский словарь промышленной и научной лексики > machine round off error
См. также в других словарях:
НАКОПЛЕНИЕ ПОГРЕШНОСТИ — при численном решении алгебраических уравнений суммарное влияние округлений, сделанных на отдельных шагах вычислительного процесса, на точность полученного решения линейной алгебраич. системы. Наиболее распространенным способом априорной оценки… … Математическая энциклопедия
Гибридная вычислительная система — аналого цифровая вычислительная машина, комбинированная вычислительная машина, комбинированный комплекс из нескольких электронных вычислительных машин (См. Вычислительная машина), использующих различное представление величин (аналоговое и … Большая советская энциклопедия
АЦП — Четырёхканальный аналого цифровой преобразователь Аналого цифровой преобразователь (АЦП, ADC) устройство, преобразующее входной аналоговый сигнал в дискретный код (цифровой сигнал). Обратное преобразование осуществляется при помощи ЦАП (DAC)… … Википедия
Цифро-аналоговое преобразование — Четырёхканальный аналого цифровой преобразователь Аналого цифровой преобразователь (АЦП, ADC) устройство, преобразующее входной аналоговый сигнал в дискретный код (цифровой сигнал). Обратное преобразование осуществляется при помощи ЦАП (DAC)… … Википедия
ОКРУГЛЕНИЕ — числа приближенное представление числа в нек рой системе счисления с помощью конечного количества цифр. Необходимость О. диктуется потребностями вычислений, в к рых, как правило, окончательный результат не может быть получен абсолютно точно и… … Математическая энциклопедия
